Định nghĩa Ước lượng Bayes

Giả sử một tham số θ chưa biết có phân phối tiên nghiệm π {\displaystyle \pi } . Đặt δ = δ ( x ) {\displaystyle \delta =\delta (x)} là một ước lượng của θ (dựa trên các số đo x), và L ( θ , δ ) {\displaystyle L(\theta ,\delta )} là hàm lỗi, ví dụ như bình phương sai số. Hàm nguy cơ Bayes của δ {\displaystyle \delta } được định nghĩa là E π { L ( θ , δ ) } {\displaystyle E_{\pi }\{L(\theta ,\delta )\}} : kì vọng của hàm lỗi trên phân phối của θ {\displaystyle \theta } . Điều này làm cho hàm nguy cơ trở thành một hàm theo δ {\displaystyle \delta } . Một ước lượng δ {\displaystyle \delta } được gọi là một ước lương Bayes nếu nó cực tiểu hàm nguy cơ Bayes. Một cách tương đương, ước lượng cực tiểu kì vọng hậu nghiệm của hàm lỗi E { L ( θ , δ ) | x } {\displaystyle E\{L(\theta ,\delta )|x\}} for each x cũng cực tiểu hàm nguy cơ Bayes và đó là một ước lượng Bayes.[1]